中国联合工程公司的核心单位即公司本部的前身——机械工业第二设计研究院，至今已有七十年历史。

1952年初，华东军政委员会工业部（简称华东工业部）在上海分别成立了华东机械设计处和华东电器设计处。

1952年底，国家调整工业管理体制，撤销华东工业部。华东机械设计处和华东电器设计处分别归属于中央人民政府第一机械工业部机械工业局和电器工业局。

1953年3月10日，中央人民政府第一机械工业部发布第19号令，决定设立设计总局，在上海设立第二设计分局，由华东机械设计处、华东电器设计处等为主要组成力量。

1958年4月1日，第二设计分局改名为第一机械工业部第二设计院。

1981年6月2日，改名为第一机械工业部第二设计研究院。

1982年8月18日，改名为机械工业部第二设计研究院。

1987年4月4日，改名为国家机械工业委员会第二设计研究院。

1988年12月２日，改名为机械电子工业部第二设计研究院。

1993年5月14日，恢复为机械工业部第二设计研究院。

1999年7月8日，改名为国家机械工业局第二设计研究院。

2001年2月19日，改名为机械工业第二设计研究院。

2001年10月25日，以机械工业第二设计研究院为核心，联合机械工业第三设计研究院、机械工业第五设计研究院、机械工业第十一设计研究院和机械工业勘察设计研究院，重组成立中国联合工程公司，在国家工商行政管理总局完成工商注册。

2001年12月17日，中国联合工程公司在杭州正式揭牌。

2017年11月30日，中国联合工程公司更名为中国联合工程有限公司。